一次网络请求中的流量分发过程
Tech导读
现代的企业级或互联网系统往往需要进行流量规划,达成透明多级分流。流量从客户端发出到服务端处理这个过程里,流经的与功能无关的技术部件有(达成“透明分流”这个目标所采用的工具与手段):客户端缓存、域名服务器、传输链路、内容分发网络、负载均衡器、服务端缓存。透明分流带来的价值:高可用架构、高并发。本文主要介绍流量规划中的网络请求过程及:
第一部分:对一次网络请求的过程作简要介绍,然后介绍目前了解到的前端网络组件搭配方式、后端网络组件搭配方式
第二部分:介绍LB负载系统 、vip与rip 的映射关系
第三部分:介绍内网域名解析及公网域名解析
导读
现代的企业级或互联网系统往往需要进行流量规划,达成透明多级分流。流量从客户端发出到服务端处理这个过程里,流经的与功能无关的技术部件有(达成“透明分流”这个目标所采用的工具与手段):客户端缓存、域名服务器、传输链路、内容分发网络、负载均衡器、服务端缓存。透明分流带来的价值:高可用架构、高并发。本文主要介绍流量规划中的网络请求过程及:
第一部分:对一次网络请求的过程作简要介绍,然后介绍目前了解到的前端网络组件搭配方式、后端网络组件搭配方式
第二部分:介绍LB负载系统 、vip与rip 的映射关系
第三部分:介绍内网域名解析及公网域名解析
01 网络请求过程
在今年的敏捷团队建设中,我通过Suite执行器实现了一键自动化单元测试。Juint除了Suite执行器还有哪些执行器呢?由此我的Runner探索之旅开始了!
1.1 通用请求过程
1.2 请求过程名词解释
rip:真实ip,指虚拟机或容器ipvip:虚拟ip,不可跨机房,online申请,负载、自动探活等功能,分公网vip与内网vip内网:专指机房内部,严格的防火墙策略,内网之间无防火墙,可申请内网vip 提供负载均衡供应用间互访;内网≠办公网办公网:办公区个人电脑网络,通过反向代理访问内网机房应用公网:互联网用户网络,通过DNS + 公网vip 访问内网机房应用备注(理解有可能不正确):公网vip即公网虚拟ip,虚拟不是说公网上找不到这个ip,虚拟是相对于服务器ip(rip)来说的,vip不直接承担业务逻辑
公网VIP在公网真实存在、内网vip在公司内网真实存在
1.3 前端网络组件搭配方式
外网访问需满足如下图架构:VIP后面挂 jen-nginx 来代理前端的主应用,jen代理后面挂静态应用1~N
测试环境:多个前端项目可能存在下列架构方式:域名 -> VIP -> JEN代理(根据不同域名访问不同文件夹下的文件)-> 静态应用
1.4 后端网络组件搭配方式
后端应用从调用方式来说分为两种 (http调用 JSF调用)前端应用 ---(协议http或者https)---后端前置应用 --(协议 jsf私有协议)----JSF微服务应用
后端前置应用 -----jsf微服务应用,之间的负载由消费者来决定,所以一般无须关注这两者之间的负载。
方式1: vip下的负载(LB负载系统) + Nginx
方式2:容器K8S层面的负载
vip提供的LB:
vip提供的LB下是直接挂机器IP,其中多个ip之间没有分组的概念,并且没有探活机制。
每次上线需要摘掉负载下的机器,上线完成后,再把机器挂上去
行云部署-高级功能-负载均衡 (容器k8s层面的负载) 优点:
有机器分组的概念:按照机房或者 机房+机房集群的维度分组后,每个分组申请自己的负载均衡。
具有探活机制:设置健康探活路径,针对负载进行探活。每次上线无须摘掉负载下的机器。
02
LB负载系统简介
理解,首先 MCube 会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目标页面展示到屏幕。
其实吧,vip本身就是个ip,没有多少真正的价值。vip可以理解为是集团LB负载均衡的入口ip,而LB负载均衡才是真正的分流组件。
共同点 | 不同点 |
|
|
2.1 默认规则
默认分流规则:域名+端口+集群,分流规则唯一性
备注:系统分配的vip有可能复用
在默认规则中, 假设系统分配的vip都是 111.111.111
域名A (www.a.jdcom)+ 域名的一个端口port(80) 通过配置的 vip (111.111.111) 将请求转发到 后端集群A。
域名B (www.b.jd.com) + 域名的一个端口port(443) 通过配置的 vip (111.111.111) 将请求转发到 后端集群B。
2.2 专用规则
面向vip的一个端口有且只有1条分流规则
备注:(猜测 不确定):专用规则中的vip可能不是复用的。
备注:一个VIP 也可以用多个端口,比如HTTP 是80和443,TCP是2000-2014
03 vip和rip的映射关系(重要)
理解,首先 MCube 会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目标页面展示到屏幕。
3.1 vip下挂载rip的约定
3.2 为什么要遵守这个约定呢?
2. 尽可能匹配断网演练的目标:机房断网演练,估计VIP也不会让流量进入到下一层,如果你vip下挂载跨机房的rip,直接让机房的断网演练,变成了跨机房演练(因为多个机房的机器不会接收到流量)
04 内网域名解析
理解,首先 MCube 会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目
1. 内网域名解析时:vip是根据机房入口走的。
2. 每个视图必须解析。(必须指向线上可用VIP)
3. 为优化机房内访问,优先选择本机房VIP。
4. 考虑到旧的机房已下架或者正在下架,旧机房优先选择廊坊、马驹桥VIP,国外应用优先选择国外的VIP。
05 公网域名解析
理解,首先 MCube 会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目
域名解析:
不需要VIP: 直接填写自己的公网IP
3. 按照运营商对应的POP入口VIP进行解析
06 总结
理解,首先 MCube 会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目标页面展示到屏幕。
用简单实用的搭配方式满足流量分发,不要随意搭配,增加系统的复杂性。
消失的死锁:从 JSF 线程池满到 JVM 初始化原理剖析
GPT大语言模型Alpaca-lora本地化部署实践
求分享
求点赞
求在看